CoWalk:面向磁盘驻留图 Agent 批量查询的协作游走
🧭 向量检索 · 批量协同查询优化
Sun Yat-sen University · Pengcheng Laboratory
让批量语义相关向量查询在同一线程协作遍历图索引,每页只读一次、所有查询共享打分,显著减少 I/O 与距离计算
📌 工作参考价值(4 点)
- 如果业务中存在 query 改写、多路并发召回或多 rollout 评测等批量语义相关向量查询,可在服务端把同一 batch 绑定到同一线程/执行器,共享页读取与打分,直接降低磁盘 ANN 的重复 I/O。
- 仅加共享 page cache 不一定能加速搜索,因为 walk 不变、距离计算仍是瓶颈;需要让任一 fetched page 被 batch 内所有 query 同时计算距离,从而改变剪枝与候选扩展过程,才能同时减少距离计算和 I/O。
- 在电商/广告的 embedding 召回或 RAG 检索服务中,可设计 batch-aware ANN 接口:上游把所有改写 query 一起下发,索引层做协作遍历,而不是逐个查询独立执行,吞吐可提升数倍。
- GRPO、deep research 等多 rollout/子任务并发的 agentic search 场景,查询生成侧天然产生语义相近 batch,适合用该思路做底层检索加速,降低向量库成本。
面向高效近似最近邻搜索的邻近图索引无损压缩
🧭 向量检索 · HNSW 图索引压缩
ISTI-CNR · eBay Inc. · University of Pisa
通过离线图置换制造结构局部性,用 SIMD 整数压缩器快速解压 HNSW 邻接表,压缩率最高 52.7% 且延迟近零损失
📌 工作参考价值(4 点)
- 电商/广告向量召回中 HNSW 内存吃紧时,先定位边存储占比:若向量已量化、图边成为主要开销,可对邻接表做离线节点重编号,再使用 Stream VByte 等 SIMD 整数压缩器,在线边解压边遍历,基本不损失延迟。
- 关键 trick 是离线图置换:人为让邻接表内的 ID 分布更集中,能显著提升整数压缩器的压缩率;业务上可直接对 item/user embedding 的 HNSW 索引做同样的重编号,无需改召回精度。
- 如果已经在用 PQ/Scalar quantization,此方法可叠加使用,进一步降低 HNSW 整体内存,缩小索引集群规模或支持更大规模向量库。
- 工程落地优先选 SIMD 友好的解压器(如 Stream VByte),避免复杂熵编码带来的分支和延迟;上线前需重点验证查询 P99/P999 延迟,并做无损压缩以避免召回质量回退。
低比特量化何时能保持向量搜索的决策?
🧭 向量检索 · 量化决策保真
Astrmira Tech.
提出基于比较翻转的量化向量搜索分析框架,精确边际预测翻转率显著优于全局秩相关。
📌 工作参考价值(4 点)
- 评估量化方案别再看平均失真或全局秩相关,直接监控 exact margin 分布和比较翻转率,特别是在大规模 ANN 召回中,这更能预测线上相关性丢失。
- 上线低比特索引前,用 held-out block certificate 对冻结量化规则进行选择性失败风险评估,避免特定 query 或 segment 上召回崩塌。
- 对 Vamana / HNSW 等图索引,用耦合定理诊断量化引入的边分叉,定位对量化敏感的具体剪枝步骤,针对性加保护或回退高精度。
- 如果嵌入具有对齐双线性结构,可考虑确定性幅度位等几何设计,在相同码率下提升比较保真;注意残差间共享 query 导致的强相关,评估时采用协方差感知指标而非独立假设。
图向量搜索的可扩展性:披着对数外衣的幂律
🧭 向量检索 · 图索引扩展性
University of Toronto
实测发现图向量搜索成本在数据规模小于内在维度时呈次线性幂律增长,之后才转入多对数增长,并给出统一理论模型
📌 工作参考价值(4 点)
- 容量规划:若数据规模 N 未达到由内在维度决定的临界点,搜索延迟/算力按 N^c(0<c<1)增长而非多对数;电商/推荐团队做向量库扩容预算时不能假设对数级成本,可用论文模型估计 c 和临界规模。
- 内在维度监控:数据集内在维度随规模增大而升高,导致查询邻域更密集;可在 embedding 上线前/后持续测量 intrinsic dimensionality,预测搜索成本拐点。
- 索引调参:论文提供预测不同 recall target 和索引配置下 power-law 指数的模型,可用来在 M、efSearch、efConstruction 等参数间做 cost-recall 权衡,适合高召回场景(广告召回、相关商品召回)提前规划。
- 评估方法借鉴:做 ANN 基准应跨多个数量级规模测试,而不是只在单点规模测量成本。
超越均匀位分配的量化
🧭 向量量化 · 非均匀位分配
Indian Institute of Science · Microsoft Research · Microsoft STCA
针对MRL嵌入提出按连续桶非均匀分配位数的量化框架,等存储下PQ/SQ召回最高提升8%/18%
📌 工作参考价值(4 点)
- 若线上 embedding 具备 MRL 结构(例如多任务/多模态训练或直接使用 MRL 训练),可以放弃 uniform bit allocation,按维度重要性分桶,将更多 bit 分配给高方差/高信息桶,特别在 int4/int8 等低比特压缩下能显著提升召回。
- 工程落地风险低:分桶为 contiguous bucket,利于 cache 和 SIMD;贪心位宽搜索可离线执行,线上查询只使用预计算码本,无额外推理开销。可直接在 DiskANN 等向量索引层实现,开源代码可参考。
- 对商品/用户 embedding 大规模建库时,先做小样本统计分析维度方差/重要性,若存在递减或聚类结构,可考虑 variable bit allocation;存储预算固定下比加 GPU 或换模型更容易提升 recall@k。
- 该工作主要针对 MRL 嵌入;如果不确定业务 embedding 是否具备 Matryoshka 属性,可先训练或验证 MRL 特性,或在线收集维度重要性指标,再决定是否启用非均匀量化。
基于拍卖机制的向量搜索聚类索引方法 CwA
🧭 向量检索索引优化 · 拍卖分配簇
Meta FAIR
联合学习平衡分区与神经探测函数,通过拍卖算法优化查询分布下的检索吞吐,OOD 场景提升 4.7 倍吞吐
📌 工作参考价值(4 点)
- 电商搜索推荐中查询与商品嵌入分布常不同(OOD),CwA 可针对性优化索引,在相同召回下大幅提升吞吐,直接降低线上检索成本。
- 拍卖算法保证分区的均衡性,适合大规模商品向量索引,避免热点簇,减少尾部延迟。
- 即使线性探测函数也能在 ID 场景超越深度方法,工程上更易部署和推理,可优先尝试轻量模型。
- 笛卡尔积簇扩展能柔性增加分区粒度,便于在亿级商品库中控制扫描比例与召回平衡。
何时修复图ANN索引:导航信号触发局部修复保护突发流失下的尾部召回
🧭 图ANN索引 · 导航信号触发局部修复
VaidhyaMegha Private Limited, India
用廉价探针召回信号触发图ANN局部修复,在固定预算下大幅提升尾部召回,避免盲目周期性修复
📌 工作参考价值(4 点)
- 在电商商品向量索引中,频繁上下架导致图索引退化,可用廉价探针查询的recall作为导航性退化信号,代替固定周期修复,节省算力且保护尾部查询质量。
- 信号触发修复策略在稀疏、脆弱的图(如低度图)上收益更大,可针对长尾商品或冷门类目的索引子图优先采用。
- 引入budget-matched评估协议:对比修复策略时必须控制修复总次数相等,避免单纯比较预算不对等产生的虚假优势。
- 工程实现上,可维护一组固定探针查询,定期计算其recall,当滑动窗口内的recall下降超过阈值时触发局部重连,无需全量重建索引。
高维网格近似最近邻搜索的缩放定律
🧭 高维ANN缩放定律与网格算法
University of California, Berkeley · University of Toronto, St. George · Independent Researcher · University of Waterloo
多探针网格在高维下展现维度不变吞吐,索引成本低,冲击图/树方法的主导地位
📌 工作参考价值(4 点)
- 当推荐系统使用高维嵌入(d≥300)且索引频繁重建(如分钟级更新),可试用多探针网格替代HNSW,利用其近常数维度吞吐和极低索引延迟,避免图索引重建瓶颈。
- 查询时间随N近线性增长,但在千万级数据集上仍可能满足延迟要求;通过调节probe数量可灵活控制精度/速度折中,适合召回延迟不极端的业务。
- 若采用ANN近似自注意力优化大模型推理,网格法的维度不变性可提供更平稳的扩展,值得在推理引擎中作为备选ANN后端。
- 在离线全量索引构建场景(如每日亿级向量重建),网格法的快速索引特性可大幅缩短总耗时,可作为评估向量检索库时的 baseline 方案。
近似最近邻搜索:召回并非一切,距离比才是关键
🧭 ANN 检索质量评估:从重叠度到距离比
University of Ioannina & Archimedes, Athena RC
提出用逆近似比 1/Ratio@k 替代 Recall@k 评估 ANN 质量,更真实反映下游效用且节省计算
📌 工作参考价值(4 点)
- 在生产 ANN 召回评估中,用 1/Ratio@k 代替 Recall@k 调优索引参数,可在下游分类或 RAG 效果不降的前提下大幅提升 QPS 或降低计算成本。
- 推荐系统和 Agent 检索链路中,当业务指标对检索噪声不敏感时,可主动降低对 Recall@k 的要求,转而监控距离比,以换取更高吞吐和更低延迟。
- 离线基准测试或 CI/CD 流程中,1/Ratio@k 无需人工标注、仅依赖查询向量和距离,易于工程化实现,可作为自动化质量关卡。
- 选型 ANN 算法时,关注不同索引在相同 1/Ratio@k 下的吞吐差异,能更直接地预测线上真实性价比,避免为虚高的 Recall 浪费资源。
支持任意区间谓词的通用范围过滤近似最近邻搜索
🧭 向量检索 · 范围过滤 ANN 搜索 ★ 深度解读
Xidian University · The Chinese University of Hong Kong · Hong Kong University of Science and Technology (Guangzhou) · Xi'an University of Posts and Telecommunications
提出多段树图 MSTG,统一处理包含、重叠等任意区间谓词的向量检索,性能最高比通用方法快 12.5 倍
📌 工作参考价值(4 点)
- 电商搜索中商品向量 + 价格/时间区间等组合查询可直接借鉴 MSTG 的索引设计:为每个离散的属性前缀构建段树,每个树节点维护一个接近图(HNSW),查询时动态合并相关 PG,避免扫描不满足谓词的向量。
- 标签化增量压缩方法能将多个时间切片的索引合并为单个带生命周期标签的 HNSW,大幅减少内存占用,适合需维护多个过滤条件的在线推荐场景。
- 复合区间谓词(如包含 + 重叠)可通过至多两个异构 MSTG 变体索引和两次搜索完成,工程上可避免为每种谓词组合重建索引。
- 在时间相关性推荐(如近期浏览商品的相似推荐)中,可借鉴 TSANN 支持:将时间戳作为区间属性,快速检索“包含某时间点”的向量集合,比现有 TS‑Graph 高效且省空间。